#Project DIGITS

avatar
karminski-牙医
5个月前
速报，寄了嗷，NVIDIA Project Digits 内存带宽只有 275GB/s. 意味着跑 70B-int4 速度只能到 6.8 token/s. 如果跑 DeepSeek-R1-Distill-Qwen-32B-Q5_K_M, 大概是 12.5 token/s. 就是个更便宜的 MacMini M4 Pro。 如果信了老黄的说法，用这个跑200B的大模型，一分钟也就能吐出来2句话。
#NVIDIA #内存带宽 #Project DIGITS #DeepSeek-R1-Distill-Qwen #MacMini M4 Pro #大模型
avatar
高级分析师
5个月前
英伟达那个超高性价比的个人超算Project DIGITS，只要3000美元，能跑最大200B的模型，比之前的大模型推理设备都便宜多了。 但依然绕不开这个问题：性价比不如开20美元一个月的chatGPT会员。 现阶段需要llama 70B仍然不如GPT 4o，而个人设备还有部署门槛、折腾。一次性支出未来10年的订阅费，不值。
#英伟达 #个人超算 #Project DIGITS #性价比 #模型推理设备 #llama 70B #GPT 4 #订阅费
avatar
图拉鼎
5个月前
看了看 NVIDIA Project DIGITS，Blackwell GPU，20 核 Grace CPU，预装 128GB 内存，可以跑 2000 亿参数的大模型…售价 3000 美元起。啊，这才是 AI 时代的随身机器，种草了！
#NVIDIA #Project DIGITS #Blackwell GPU #Grace CPU #AI时代 #大模型 #随身机器
avatar
Micro 小熊猫
5个月前
不论DC业务，50系显卡，还是Project DIGITS，都能看到 NVDA都是在已经领先的赛道上继续以更快速的速度在卷自己。强者恒强，说不定还会高薪继续挖人，友商真是难办。 刚需的消费者也是没办法，乖乖掏钱并感受刀法，投资者倒是踏实，高毛利，高护城河，还能在自己领先的赛道上继续卷自己，完美投资标的。
#DC业务 #50系显卡 #Project DIGITS #NVDA #强者恒强 #高薪挖人 #商业竞争 #投资者 #高毛利 #护城河
avatar
单方面宣布 Project DIGITS 是我今年最想拥有的产品 128G 统一内存 1000 TFLOPS 的 FP4 算力（5090 大概是 104.8 TFLOPS 的 FP16 算力 能本地跑 200b 的 LLM（还可以两个 link 起来跑 405b 的 强到没朋友的情况下还这么小巧好看（Mac mini 那么大 女大遥遥领先到友商车连尾灯都看不见
#Project DIGITS #统一内存 #FP4算力 #LLM #Mac mini #科技产品 #计算能力
avatar
倪爽
5个月前
NVIDIA 的 Project DIGITS，全球最小的个人 AI 超级电脑 可以处理多达 2000 亿个参数的 AI 模型 3000 美元，5 月份上市 虽然我很讨厌 insane、离谱这种没事瞎煽情的形容词，不过这个小电脑的确是很 insane、很离谱😂
#NVIDIA #Project DIGITS #AI超级电脑 #个人AI #科技创新